前面提到,神經元會判斷輸入訊號的大小,再將其傳送給相鄰的神經元。
那麼神經元到底是如何判斷輸入訊號的大小,又如何將訊號傳送出去的呢?
重點在於,若我們鎖定某個神經元,會發現它在接受來自其他複數神經元的訊號時,對於來自各個神經元的訊號重視程度並不相同。
先假設神經元A從其他的神經元1~3接收訊號,且神經元A 會將來自神經元1~3的部號加總起來。此時的重點是,這個和是加權總和。也就是說,神經元A 會將來自各神經元的訊號大小分別乘上一個權重(weight)。
舉例來說,假設來自神經元1之訊號「權重」是5、來自神經元2的訊號「權重」是7、來自神經元3之訊號「權重」是9。另外假設來自神經元1~3的訊號值分別是X1、X2、X3。
接著,神經元A會將接收到的訊號分別乘上權重再加總起來,如下所示。
加權總和=5X1 +7X2 +9*X3 …
這種將訊號乘上權重的處理方式,正是神經元的網路之所以能產生智慧的原因。建構神經網路時,如何決定這些權重是十分重要的問題。